Trạng nguyên Giáp Hải đã được dân gian mang danh quê hương là Trạng Kế. Nơi ông vẫn ngồi học thủa nhỏ cùng với hòn đá, giếng nước đều gắn với ông bằng những tên gọi thân thuộc. Hòn đá ông Trạng, núi ông Trạng, giếng ông Trạng…Và khi ông qua đời, nhân dân đã an táng, xây lăng quan Trạng, lập đền thời quan Trạng. Nhân dân và Nho sĩ hai huyện Phượng Nhãn – Bảo Lộc của phủ Lạng Giang xưa lập văn chỉ, khắc bia các bậc tiên hiền, của quê hương trong đó có Trạng nguyên Giáp Hải và con ông là tiến sĩ Giáp Lễ. Đặc biệt nhân dân Dĩnh Kế đã lập đền thờ quan Trạng, tổ chức tế lễ rước sách uy nghiêm trong ngày hội làng và rằm tháng 3 âm lịch hàng năm.

Sau khi Mạc Đăng Dung tiếm ngôi nhà Lê, nhà Minh sai Mao Bá Ôn đem quân sang "hỏi tội". Mao Bá Ôn dừng quân nơi cửa ải, đưa ra bài thơ này gửi quan quân nhà Mạc với ý ví người An Nam như những thân bèo không đoàn kết. Bài thơ này đã được trạng nguyên Giáp Hải của Đại Việt hoạ lại với lời lẽ cứng rắn.

Bài thơ chữ Hán của Mao Bá Ôn萍詩

隨田逐水冒秧鍼，

到處看來實不深。

空有根苗空有葉，

敢生枝節敢生心？

徒知聚處寧知散，

但識浮時那識沉。

大抵中天風惡氣，

掃歸湖海便難尋。

Bản phiên âm Hán-Việt:

Tuỳ điền trục thuỷ mạo ương châm,

Đáo xứ khan lai thực bất thâm.

Không hữu căn miêu không hữu diệp,

Cảm sinh chi tiết cảm sinh tâm?

Đồ tri tụ xứ ninh tri tán,

Đãn thức phù thì ná thức trầm?

Đại để trung thiên phong ác khí,

Tảo quy hồ hải tiện nan tầm.

Dịch nghĩa:

Dọc theo ruộng nước bám như châm,

Rễ bám vào đâu cũng chẳng thêm.

Vờ có căn nguyên, vờ có lẽ,

Dám chi sạch tiết, dám chi tâm?

Tụ rồi đã chắc chi khi tán,

Nổi đó nào hay đến lúc chìm?

Gặp trận trời cho cơn gió lốc,

Quét tan hồ bể khó mà tìm.

Dịch thơ:

Thơ vịnh bèo (Người dịch: Hoà thượng Trí Thủ)

Cao sâu theo nước mọc im lìm

Nông nỗi xưa nay vốn khó dìm

Ngọn gốc đã trơ không lá lảu

Cỗi cành sao lại cả gan tim?

Coi thường tản mát khi thường tụ

Biết lúc lênh đênh chả biết chìm

Ví gặp tung trời cơn bão táp

Cuốn theo về biển khó đâu tìm!

Khi nhận được bài thơ thì Trạng Giáp Hải đã có bài hoạ như sau:

Cẩm lân mật mật bất dung châm

Đái diệp liên căn khởi kế thâm

Thường dữ bạch vân tranh thuỷ diện

Khảng giao hồng nhật truỵ ba tâm

Thiên trùng lãng đả thành nan phá

Vạn trận phong xuy vĩnh bất trầm

Đa thiểu ngư long tàng nghiểu lý

Thái Công vô kế hạ câu tầm

Tạm dịch:

Sin sít hoa thêu cản mũi khâu

Mấy tầng gốc rễ vẫn chen nhau

Ganh cùng mây bạc trên làn sóng

Đâu để vầng hồng lọt đáy sâu

Nước vỗ, vỗ sao cho phá được

Gió to, to mấy có chìm đâu

Biết bao rồng cá nằm trong đó

Cụ Lã đừng hòng thả lưỡi câu!

Năm 1998, một nhóm công nhân đã phát hiện một hòm đá hình chữ nhật tại xã Dĩnh Trì. Hòm đá gồm hai phiến đá nhẵn chồng khít lên nhau. Phần áp mặt vào nhau của hai phiến đá có văn bản viết bằng chữ Nho. Sau khi dịch nghĩa, người ta biết đây là di văn của Giáp Hải, được ông soạn kỹ càng rồi yểm xuống mộ Khánh Sơn tiên sinh (cha đẻ Giáp Hải) vào năm Tân Dậu, 1549. Một điều thú vị là phần nắp đậy có những dòng chữ viết thêm cho biết ngôi mộ đã được chuyển từ núi Ngò về xã Dĩnh Trì hiện nay như thế nào. Như vậy, việc tranh cãi ông là người Bắc Giang hay Hà Nội (ngày nay) có lẽ sẽ đi đến hồi kết.[cần dẫn nguồn]